Microsoft казва, че съперниците на САЩ започват да използват генериращ AI в офанзивни кибер операции

Критиците на общественото стартиране на ChatGPT през ноември 2022 година и последващите издания от съперници настояват, че е било безконтролно преждевременно, като се има поради, че сигурността е значително следваща мисъл в тяхното развиване.

Microsoft съобщи в сряда, че съперниците на Съединени американски щати, основно Иран и Северна Корея и в по-малка степен Русия и Китай, стартират да употребяват генеративен изкуствен интелект (AI), с цел да провеждат или провеждат нападателни кибер интервенции.

Технологичният колос съобщи, че е разкрил и прекъснал, в съдействие с бизнес колегата OpenAI, закани, които са употребявали или са се пробвали да експлоатират създадената от тях AI технология.

В, компанията от Редмънд, Вашингтон, сподели, че техниките са били „ в ранен етап “ и нито „ изключително нови, нито неповторими “, само че че е било значимо да бъдат разкрити обществено, защото противниците на Съединени американски щати употребяват широкоезични модели, с цел да разширят способността си да пробиват мрежи и да организират интервенции за въздействие.

Фирмите за киберсигурност от дълго време употребяват машинно образование в защитата, основно за разкриване на аномално държание в мрежите. Но нарушителите и злонамерените хакери също го употребяват, а въвеждането на широкоезични модели, водени от ChatGPT на OpenAI, увеличи тази игра на котка и мишка.

Европейските регулатори сложиха залога на Microsoft за 13 милиарда $ върху OpenAI под по-внимателно наблюдаване

Microsoft влага милиарди долари в OpenAI и известието от сряда съответства с публикуването на отчет, в който се отбелязва, че генеративният AI се чака да усъвършенства злонамереното обществено инженерство, водещо до по-сложни дълбоки фалшификации и гласово клониране, заплаха за демокрацията през година, в която над 50 страни ще проведат избори, увеличавайки дезинформацията и към този момент съществуваща,

Ето някои образци, предоставени от Microsoft. Във всеки случай се споделя, че всички генериращи AI сметки и активи на посочените групи са били деактивирани:

Севернокорейската група за кибершпионаж, известна като Kimsuky, е употребила моделите за проучване на задгранични мозъчни тръстове, които учат страната, и за генериране на наличие, което евентуално ще да се употребява в хакерски акции за фишинг. Иранската революционна армия е употребила широкоезични модели, с цел да помогне при общественото инженерство, при отстраняването на софтуерни неточности и даже при проучването на това по какъв начин нарушителите могат да избегнат откриването в компрометирана мрежа. Това включва генериране на фишинг имейли, „ в това число един, който се преструва, че идва от интернационална организация за развиване, и различен, който се пробва да примами видни феминистки към уеб страница за феминизма, основан от нападатели “. AI оказва помощ за ускорение и увеличение на производството на имейли. Руското военно разузнаване на ГРУ, известно като Fancy Bear, е употребило моделите за проучване на сателитни и радарни технологии, които може да са свързани с войната в Украйна. Китайската група за кибершпионаж, известна като Aquatic Panda, която е ориентирана към необятен набор от промишлености, висше обучение и държавни управления от Франция до Малайзия — взаимодейства с моделите „ по способи, които допускат лимитирано изследване на това по какъв начин LLM могат да усилят техническите си интервенции. “ Китайската група Maverick Panda, която е ориентирана към американски отбранителни реализатори измежду други браншове в продължение на повече от десетилетие са имали взаимоотношения с широкоезични модели, което допуска, че прави оценка тяхната успеваемост като източник на информация „ по евентуално чувствителни тематики, високопоставени лица, районна геополитика, въздействие на Съединени американски щати и вътрешни работи. “ Главният изпълнителен шеф на OpenAI предизвестява че „ публичните несъответствия “ могат да създадат изкуствения разсъдък рисков

„ Кутията на Пандора беше отворена “

В обособен блог, оповестен в сряда, OpenAI сподели, че сегашният му модел GPT-4 чатбот предлага „ единствено лимитирани, възходящи благоприятни условия за злонамерени задания за киберсигурност оттатък това, което към този момент е постижимо с обществено налични принадлежности, които не са основани на изкуствен интелект. Агенцията за сигурност на инфраструктурата, Джен Истърли, сподели пред Конгреса, че „ има две определящи епохата закани и провокации. Единият е Китай, а другият е изкуственият разсъдък. “

Ийстърли сподели по това време, че Съединени американски щати би трябвало да подсигуряват, че ИИ е построен с мисъл за сигурността.

Критици на общественото известие на ChatGPT през ноември 2022 година — и следващи издания от съперници, в това число Гугъл и Meta — настояват, че е било безконтролно преждевременно, като се има поради, че сигурността е значително закъсняла мисъл в тяхното развиване.

„ Разбира се, неприятните артисти употребяват модели на огромен език — това решение беше взето, когато кутията на Пандора беше отворена “, сподели Амит Йоран, основен изпълнителен шеф на компанията за киберсигурност Tenable.

Някои експерти по киберсигурност се оплакват от основаването и разпространяването на принадлежности на Microsoft за справяне с уязвимостите в широкоезични модели, когато може да се концентрира по-отговорно върху това да ги направи по-сигурни.

„ Защо не създадете по-сигурни модели на основата на LLM в черна кутия, вместо да продавате защитни принадлежности за проблем, за чието основаване оказват помощ? “ попита Гари Макгроу, деец по компютърна сигурност и съосновател на Berryville Institute of Machine Learning.

Професорът от Нюйоркския университет и някогашен основен чиновник по сигурността на AT&T Едуард Аморосо сподели, че до момента в който потреблението на AI и модели с огромни езици може не съставляват непосредствена явна опасност, те „ вероятно ще се трансфорат в едно от най-мощните оръжия във всяка войска на национална страна. “